Persatuan Hati didirikan tahun 1921 di Jogyakarta. Pendirian ini erat kaitannya dengan koh sentral PH yaitu mendiang Rm Mangku Pujono (biasa dipanggil Rm Mangku, den mas Pono, dll) . Sebelumnya sudah ada perkumpulan yang dinamakan ‘Be United’ yang artinya kira-kira bersatu (hati) juga.

Romo Mangku Pujono dilahirkan pada tanggal 21 Juni 1909 dan wafat di Jakarta tahun 2003 yang lalu. Usia beliau tergolong sangat lanjut yaitu 94 tahun. Makam beliau ada di daerah Giwangan, Jogyakarta.

Yang sangat unik adalah Rm Mangku sendiri tidak pernah berguru pada guru silat secara resmi. Sebagai mana dikonfirmasi oleh anak bungsu beliau, Mas Ispono, di kediamannya daerah Sorowajan, Jogyakarta.

Ilmu silat PH diciptakan dari olahan budi Rm Mangku menghadapi situasi sosial dan tantangannya. Diceritakan oleh Mas Ispono, bahwa sewaktu kecil Rm Mangku sering diganggu oleh anak-anak lainnya di daerah kauman, mantri jeron, brontokusuman, maupun tamansari…dari situ beliau memikirkan cara yang efektif untuk membela diri.

Tidak jarang untuk melatih tekhniknya maka dia mengajak/meminta ato menantang para penjual bakso/tukang kayu bakar dan penjual lainnya di sekitar namburan/mantri jeron dan sekitarnya untuk memukul beliau. Sering juga beliau pulang dengan tangan terkilir, atau kaki sengklek; Namun dari situlah, secara bertahap tehnik pembelaan diri –yang kelak dikenal sebagai persatuan hati—dibentuk dan dirintis.

Tehnik pembelaan diri ini terus diasah dan digesekkan dengan para tokoh lainnya.

Tokoh yang sering disebut-sebut adalah : Rm Nardi (tokoh aliran tunggal hati), Rm Widji Hartani (Phasadja) dan Sugiman, juga Purwo Sumarto.

Sangat mungkin dalam perjalanannya terjadi proses saling belajar dan memperkaya dengan para sesepuh dan tokoh-tokoh pencak lainnya.

Namun satu hal yang dapat dipastikan bahwa PH merupakan buah dari kegenial-an dan olah budi dari Rm Mangku. Rm Mangku sendiri bersama dengan Ir Sudarto (murid beliau) pernah melatih tentara jaman Sukarno. Juga pernah melatih para bangsawan di kelaurga kerajaan jogya.

Persatuan Hati bermakna bersatunya hati insan dengan Khaliknya (Sang Pencipta) sesuai agama masing-masing dan bersatunya hati sesama manusia (termasuk sesama anggota PH) dalam persaudaraan yang sejati (sehati)..

Dalam perjalanannya PH terus berkembang dan memiliki banak tempat latihan di Jogya maupun luar Jogya. Untuk di Jogya, Bantul sebenarnya bukan pusat PH sejak awal , namun tempat latihan yang hingga saat ini masih aktif dan terus hidup dengan mendapat bimbingan dari Mbah Marto dan Pak Sugiman (guru Mbah Marto sebelum belajar pada Rm Mangku). Pak Sugiman sendiri adalah murid Rm Mangku.

Menurut Mbah Marto, PH masih memiliki tempat latihan di Jogya, sekitar Imogiri dan daerah lain yaitu ponorogo, purworejo, bangka dan semarang. Hanya saja beliau tidak ingat alamat tempat-latihan tersebut.

Semasa muda Mbah Marto sering diminta oleh prsiden RI untuk menampilkan pencak silat di hadapan para tamu dari luar negeri. Pada kesempatan itu biasanya beliau memainkan jurus tangan kosong dan senjata (cabang, trisula dan golok).

Pada jaman perang kemerdekaan, sumbangan Perguruan Pencak Silat Persatuan Hati kepada Ibu Pertiwi adalah para Anggota menjadi Laskar/tentara pejuang. Disamping itu Lambang Perguruan Pencak Silat Persatuan Hati, lambang Kependekaran pada waktu itu berupa TENGKORAK PUTIH MENGGIGIT BELATI, diserahkan kepada Batalyon 1 MBT yang diterima oleh Mayor R. Sudarto (sekarang Mayor Jenderal Purn Ir. R. Sudarto) dan lambang tersebut dijadikan sebagai Tanda Kesatuan Batalyon 1-MBT pada bulan Mei 1946.

Setelah perang kemerdekaan selesai, dan Indonesia semakin aman, Perguruan Pencak Silat Persatuan Hati mulai berbenah diri dan meluaskan/melebarkan sayap dengan membuka dan mendirikan cabang-cabang dibeberapa Kota di Indonesia dan bahkan masuk lingkungan sekolah.

Kota yang dijangkau oleh para aktivis PH antara lain : Yogyakarta, Wates, Purworejo, Bandung, Jakarta, Palembang, Samarinda, Ungaran, Semarang, Surabaya, Ponorogo, Klaten, Magelang, Bantul dan Wonosari.

Sekolah yang secara resmi menerima PH adalah Sekolah GUru Pendidikan Djasmani (SGPD) yang selanjutnya berubah menjadi SGO. Oleh para lulusan SGPD Negeri Yogyakarta, pencak silat PH dibawa masuk ke SMP-SMP dimana mereka ditempatkan.